Năm 1524, khi Giovanni da Verrazzano khám phá ra vùng đất New York, nơi đây có khoảng 5.000 cư dân bản địa Lenape sinh sống.[16] Verrazzano, nhà thám hiểm người Ý phục vụ cho vương triều Pháp, đã gọi vùng này là "Nouvelle Angoulême", tức Tân Angoulême, để tưởng nhớ François I, vua nước Pháp và đồng thời là Bá tước của Angoulême.[17] Vùng định cư Âu châu này khởi sự với việc thiết lập một khu định cư chuyên mua bán da thú của người Hà Lan, sau đó được gọi là "Nieuw Amsterdam" (Tân Amsterdam), nằm trên mũi phía nam Manhattan vào năm 1614. Tổng điều hành thuộc địa Hà Lan khi ấy là Peter Minuit đã mua lại đảo Manhattan từ người Lenape vào năm 1626 với giá 60 guilder Hà Lan – tương đương khoảng 1000 đô la Mỹ vào năm 2006.[18] Có một truyền thuyết bây giờ vẫn chưa được chứng minh nói rằng Manhattan được mua với giá chỉ bằng chuỗi hạt thủy tinh 24 đô la.[19][20] Năm 1664, người Anh chiếm được thành phố và đặt tên nó thành "New York" theo tên Công tước York và Albany của Anh (sau là vua James II của Anh).[21] Vào cuối cuộc chiến tranh Anh-Hà Lan lần thứ hai, người Hà Lan giành được quyền kiểm soát đảo Run (một tài sản có nhiều giá trị vào thời đó) để đổi lấy việc người Anh kiểm soát Tân Amsterdam (New York) tại Bắc Mỹ. Đến năm 1700, dân số người Lenape giảm xuống còn 200.[22]

Thành phố New York phát triển chính yếu như một thương cảng dưới thời kỳ cai trị của Đế quốc Anh. Đây là nơi xảy ra vụ xử án John Peter Zenger vào năm 1735, đã có nhiều ảnh hưởng, giúp thiết lập nên nền tự do báo chí tại Bắc Mỹ. Năm 1754, Đại học Columbia được thành lập tại Hạ Manhattan dưới thời vua George II của Vương quốc Anh với tên gọi là King's College.[23] Quốc hội Đạo luật Tem thuế (Stamp Act Congress) cũng đã họp tại New York vào tháng 10 năm 1765.

Trong cuộc Chiến tranh Cách mạng Mỹ, New York là nơi diễn ra hàng loạt các trận đánh chính được biết đến với tên gọi Chiến dịch New York. Sau trận Đồn Washington ở Thượng Manhattan năm 1776, thành phố trở thành căn cứ cho các chiến dịch chính trị và quân sự của Vương quốc Anh tại Bắc Mỹ, kéo dài đến khi cuộc chiếm đóng quân sự kết thúc vào năm 1783. Quốc hội Liên hiệp (Congress of the Confederation) chọn Thành phố New York làm thủ đô quốc gia ít lâu sau đó. Hiến pháp Hoa Kỳ được thông qua vào năm 1789 và Tổng thống Hoa Kỳ đầu tiên, George Washington, tuyên thệ nhậm chức tại đây. Quốc hội Hoa Kỳ lần thứ nhất nhóm hợp lần đầu tiên vào năm 1789 và Đạo luật nhân quyền Hoa Kỳ được soạn thảo trong Đại sảnh Liên bang trên phố Wall.[24] Năm 1790, New York qua mặt Philadelphia trở thành thành phố lớn nhất Hoa Kỳ.

Vào thế kỷ XIX, thành phố chuyển mình nhờ những làn sóng nhập cư cùng những phát triển mạnh mẽ. Một đề án phát triển tương lai mang tên "Commissioners' Plan of 1811" đã mở rộng hệ thống đường phố thành phố bao trùm cả Manhattan. Việc mở cửa kênh Erie năm 1819 đã nối liền cảng bờ Đại Tây Dương đến các thị trường nông nghiệp rộng lớn phía trong nội địa Bắc Mỹ.[25] Nền chính trị địa phương rơi vào vòng kiểm soát của Tammany Hall, một bộ máy chính trị do những di dân người Ái Nhĩ Lan hậu thuẫn.[26] Những thành viên tích cực thuộc tầng lớp quý tộc thương buôn xưa đã vận động cho việc xây dựng Công viên Trung tâm (Central Park), trở thành công viên đô thị đầu tiên trong một thành phố Mỹ, mở cửa vào năm 1859. Có một dân số người da đen tự do đáng kể hiện diện trong khu Manhattan cũng như khu Brooklyn. Những người nô lệ bị giữ tại New York qua đến năm 1827, nhưng trong suốt thập niên 1830, New York trở thành 1 trung tâm của những người hoạt động bãi nô liên chủng tộc ở miền Bắc. Dân số người da đen của New York lên đến trên 16.000 vào năm 1840.[27] Đến năm 1860, New York có trên 200.000 người Ái Nhĩ Lan, chiếm một phần tư dân số thành phố.[28]

Trong Nội chiến Hoa Kỳ (1861–1865), việc cưỡng bức quân dịch đã gây nên những vụ nổi loạn vào năm 1863, một trong những sự kiện bất ổn nội bộ tồi tệ nhất của lịch sử nước Mỹ.[29] Năm 1898, thành phố hiện đại New York được thành lập với sự kết hợp của Brooklyn (cho đến khi đó vẫn là một thành phố độc lập), quận New York (khi đó gồm có một phần của the Bronx), quận Richmond, và phần phía tây của quận Queens.[30] Việc khánh thành hệ thống Xe điện ngầm New York năm 1904 đã giúp kết chặt thành phố mới lại với nhau. Trong suốt nửa đầu thế kỷ 20, thành phố trở thành một trung tâm công nghiệp, thương mại và thông tin của thế giới. Tuy nhiên, thành phố cũng phải trả những giá đắt cho sự phát triển này. Năm 1904, tàu hơi nước tên General Slocum bị cháy trên sông East, khiến 1.021 người trên tàu thiệt mạng. Năm 1911, vụ cháy nhà máy Triangle Shirtwaist, tai họa công nghiệp tồi tệ nhất của thành phố, đã cướp đi sinh mạng của 146 công nhân ngành dệt may. Vụ họa hoạn này đã khích động cho việc thành lập Công đoàn thợ may nữ quốc tế và những cải tiến lớn trong tiêu chuẩn an toàn tại các nhà máy.[31]

Thập niên 1920, Thành phố New York là một điểm đến chính của những người Mỹ gốc Phi từ miền nam Hoa Kỳ trong suốt thời kỳ "Đại di dân". Năm 1916, New York là nơi cư ngụ lớn nhất tại Bắc Mỹ của những người tha hương gốc Phi. Phong trào Phục hưng Harlem hưng thịnh trong suốt thời kỳ cấm rượu (được biết với tên gọi "Prohibition") tại Hoa Kỳ, cùng lúc với sự phát triển mạnh mẽ về kinh tế và chứng kiến hàng loạt những tòa nhà chọc trời đua nhau mọc lên. Thành phố New York qua mặt Luân Đôn trở thành đô thị đông dân nhất trên thế giới vào đầu thập niên 1920, và vùng đô thị của nó vượt mốc 10 triệu người vào đầu thập niên 1930 để trở thành siêu đô thị đầu tiên trong lịch sử loài người.[32] Những năm khó khăn của thời kỳ Đại Khủng hoảng đã chứng kiến việc nhà cải cách Fiorello LaGuardia đắc cử chức thị trưởng cùng với sự sụp đổ của nhóm Tammany Hall sau tám năm lũng đoạn nền chính trị thành phố.[33]

Các cựu quân nhân trở về từ Chiến tranh thế giới thứ hai đã tạo nên một cơn bùng phát kinh tế sau chiến tranh, kèm theo sự phát triển những dãy nhà khổng lồ ở phía đông quận Queens. New York không bị thiệt hại trong cuộc chiến trở thành đô thị dẫn đầu của thế giới. Phố Wall của New York đưa Hoa Kỳ lên cao trong vai trò cường quốc thống trị nền kinh tế thế giới, tổng hành dinh Liên Hiệp Quốc hoàn thành năm 1950 làm tăng thêm sức mạnh ảnh hưởng chính trị của thành phố, và sự nổi lên của chủ nghĩa biểu hiện trừu tượng đã báo hiệu cho việc trung tâm mỹ thuật của thế giới dời Paris về New York.[34]

Trong thập niên 1960, New York phải đối mặt với nhiều khó khăn về kinh tế, tỉ lệ tội phạm và căng thẳng sắc tộc gia tăng lên đến đỉnh điểm vào thập niên 1970. Trong thập niên 1980, sự sống lại của nền công nghiệp tài chính đã cải thiện sức mạnh thành phố. Vào thập niên 1990, những căng thẳng sắc tộc dần lắng dịu, tỉ lệ tội phạm giảm đáng kể và thành phố tiếp nhận một làn sóng di dân mới đến từ châu Á và châu Mỹ Latin. Những ngành mới quan trọng, thí dụ như Hành lang Điện tử (Silicon Alley), xuất hiện trong nền kinh tế thành phố và dân số New York đạt một đỉnh cao chưa từng có trong cuộc điều tra dân số Hoa Kỳ năm 2000.

New York là một trong những điểm bị tấn công trong sự kiện 11 tháng 9 với gần 3.000 người thiệt mạng khi Trung tâm Thương mại Thế giới bị đánh sập.[35] Trung tâm Thương mại 1 Thế giới (1 World Trade Center), trước đây được biết với cái tên Tháp Tự do, cùng với một đài tưởng niệm, ba tháp văn phòng khác sẽ được xây dựng trên nền của tòa tháp đôi dự tính sẽ hoàn thành vào năm 2013.[36] Vào ngày 10 tháng 12 năm 2006, những cột thép đầu tiên đã được dựng trong nền của tòa nhà. Ba tòa nhà văn phòng cao tầng khác theo kế hoạch đã được xây dọc theo Phố Greenwich, và chúng được vây quanh Đài tưởng niệm Trung tâm Thương mại Thế giới đã được xây dựng. Ở đây cũng có một bảo tàng về lịch sử của khu vực này.